|
===================================== 〔語彙分解〕的な部分一致の検索結果は以下の通りです。 ・ 精 : [せい] 【名詞】 1. spirit ・ 精度 : [せいど] 【名詞】 1. precision 2. accuracy ・ 度 : [ど] 1. (n,n-suf) (1) degree (angle, temperature, scale, 2. (2) counter for occurrences 3. times 4. (3) strength (of alcohol) 5. (4) (uk) (pref) very 6. totally ・ 算術 : [さんじゅつ] (n) arithmetic ・ 術 : [すべ] 【名詞】 1. way 2. method 3. means
精度(せいど、precision)とは、数値を表現する桁数を意味する。 == 概要 == 科学的には、全桁数を意味することが多いが(有効数字とも呼ぶ)、小数点以下の桁数を意味することもある。工学や金融などでは小数点以下の値が重要な意味を持つため、後者の定義が便利である。 いずれにしても、精度とは不正確な測定結果をどこで丸めるかを示すものである。例えば、浮動小数点数の算術では演算結果は「仮数」の長さという所定の精度で丸められる。金融計算では数値はある一定の桁数で丸められる(例えば、国際通貨の為替レートは一般に小数点以下2桁で丸められる)。 ここでは、例として十進数の値 12.345 を様々な精度で丸めるとどうなるかを示す。精度が不十分であれば、端数処理によってその精度に見合った桁数で数値が丸められる。下の表は最も一般的な四捨五入で丸めを行った場合を示している。 〔 抄文引用元・出典: フリー百科事典『 ウィキペディア(Wikipedia)』 ■ウィキペディアで「精度 (算術)」の詳細全文を読む スポンサード リンク
|